Pergeseran Paradigma

Kita sedang beralih dari pola pikir "kinerja dengan segala cara" menuju kerangka AI yang Bertanggung Jawab (RAI) Di era baru ini, keberhasilan teknis sangat bergantung pada ketangguhan etika dan pagar pengaman keselamatan.

1. Optimasi Terkendala

Secara historis, tujuannya adalah meminimalkan fungsi kerugian $L(\theta)$. Paradigma baru memperlakukan AI sebagai masalah optimasi terkendala: $$\max P \text{ tunduk pada } C_1, C_2, \dots, C_n$$ di mana $C$ mewakili ambang batas keselamatan dan keadilan yang tidak dapat ditawar.

2. Kesenjangan "In-Vitro" vs. "In-Vivo"

Model sering kali mencapai hasil mutakhir (SOTA) pada tolok ukur statis (in-vitro) namun mengalami kegagalan fatal di lingkungan sosioteknis dunia nyata (in-vivo) akibat interaksi yang tidak terduga.

Kiri: Akurasi/kecepatan tinggi, nol keselamatan/transparansi. Kanan: Heksagon seimbang yang mewakili keselamatan, keadilan, dan keterjelasan.

Contoh: Perdagangan Frekuensi Tinggi

Model yang hanya mengutamakan kinerja dianggap berhasil jika memaksimalkan ROI. Sebaliknya, model RAI dianggap gagal jika mencapai ROI tinggi tetapi memicu "flash crash" karena tidak adanya pagar pengaman stabilitas pasar.